rEDMRec: Distilling Large Language Model Reasoning into an Editable Experience Memory for Recommendation
rEDMRec:将 LLM 推理蒸馏为可编辑经验记忆用于推荐
🧭 LLM 推理蒸馏 · 可编辑记忆推荐 ★ 深度解读
University of Science, Ho Chi Minh City, Vietnam · Vietnam National University, Ho Chi Minh City, Vietnam
把教师 LLM 的推荐推理压缩为四通道可编辑经验记忆,冻结学生 LLM 检索排序,解耦推理成本与在线开销
📌 工作参考价值(4 点)
- 借鉴四通道经验库:把用户长期偏好、短期会话兴趣、商品级感知、硬负样本反事实对比分开存储和检索,而不是把全部 history 塞进 prompt;电商推荐中可分别用向量库存 lt/st/ip,用 hybrid graph-vector 存 cf,支持按 user_id / item 过滤。
- 借鉴在线/离线解耦:大模型只做离线知识抽取与记忆写入,线上用冻结的 3B-20B 小模型做纯检索式排序;适合控制在线延迟的广告/推荐场景,新交互只触发记忆 edit,不触发重训或大模型调用。
- 借鉴 Add/Delete/Modify/Keep 记忆控制器 + 多智能体 debate 优化:用排名奖励向量(HR@1、HR@k、MRR、DCG 折扣)驱动 critic/arbiter 修改记忆条目,不梯度更新模型;重复率是前导指标,建议 debate agent 数 k=4 为性价比拐点。
- 注意容量依赖:强学生可能反而被冗余/泛化条目干扰,短时上下文通道最稳定;在采用大模型排序时,可按学生能力选择性启用长期/商品感知/反事实通道,或控制 bank 规模减少重复。